Self-Evolving Coding Agents via Harness-Policy Optimization
自进化编码代理：基于 Harness-Policy 优化
🧭 Agent 自进化与强化学习
Microsoft Research · University of Virginia · Carnegie Mellon University
提出 Self-HPO 框架，交替优化编码代理的 harness 与 policy，实现递归自改进，显著提升编码任务解决率
📌 工作参考价值（4 点）
- 在电商推荐/搜索的 Agent 系统中，不要只微调策略模型或只调整工具/流程（harness），两者应联合迭代优化：让当前策略基于自身失败模式提出新的工具或交互脚手架候选，再用 RL 更新策略，形成闭环。
- 利用策略自身作为 harness proposer 的思路可以迁移到推荐 Agent：当 agent 在特定任务（如 query 改写、商品筛选）上频繁失败时，让其反思失败原因并生成新的工具描述、API 调用模板或搜索流程，然后用这些新 harness 重新训练策略。
- 从训练中收集困难样本（hard tasks）用于下一轮 harness 搜索，可以保证优化方向始终针对策略的当前薄弱点，避免盲目扩展工具集；对推荐系统来说，可借鉴此机制动态聚焦长尾 query 或复杂会话场景。
- 实验显示联合优化 harness 和 policy 的增益超过各自单独优化之和（joint gain > sum of individual gains），这提示在实际业务中，同时调整“模型能力”与“工具/流程”可能带来乘数效应，而非简单叠加。